我们介绍了基于深频自动化器的异常检测技术在激光干涉仪中检测重力波信号的问题。在噪声数据上接受训练，这类算法可以使用无监督的策略来检测信号，即，不瞄准特定类型的来源。我们开发了自定义架构，以分析来自两个干涉仪的数据。我们将所获得的性能与其他AutoEncoder架构和卷积分类器进行比较。与更传统的监督技术相比，拟议战略的无监督性质在准确性方面具有成本。另一方面，在预先计算信号模板的集合之外，存在定性增益。经常性AutoEncoder超越基于不同架构的其他AutoEncoder。本文呈现的复发性自动额片的类可以补充用于引力波检测的搜索策略，并延长正在进行的检测活动的范围。

Deep neural networks (DNN) have outstanding performance in various applications. Despite numerous efforts of the research community, out-of-distribution (OOD) samples remain significant limitation of DNN classifiers. The ability to identify previously unseen inputs as novel is crucial in safety-critical applications such as self-driving cars, unmanned aerial vehicles and robots. Existing approaches to detect OOD samples treat a DNN as a black box and assess the confidence score of the output predictions. Unfortunately, this method frequently fails, because DNN are not trained to reduce their confidence for OOD inputs. In this work, we introduce a novel method for OOD detection. Our method is motivated by theoretical analysis of neuron activation patterns (NAP) in ReLU based architectures. The proposed method does not introduce high computational workload due to the binary representation of the activation patterns extracted from convolutional layers. The extensive empirical evaluation proves its high performance on various DNN architectures and seven image datasets. ion.

自然语言和生物学序列之间的明显相似之处已导致最新的深层语言模型（LMS）在抗体和其他生物学序列分析中的应用激增。但是，缺乏对生物序列语言的严格语言形式化，这些语言将定义基本组成部分，例如词典（即语言的离散单元）和语法（即，将序列序列良好的规则，结构和结构和结构和结构和结构链接的规则链接在一起含义）导致了LMS的主要域无规定应用，这些应用未考虑研究的生物序列的基础结构。另一方面，语言形式化为LM应用建立了语言信息，因此适应域的组件。它将有助于更好地理解自然语言和生物序列之间的差异和相似性如何影响LMS的质量，这对于具有可解释的模型具有可解释的模型至关重要。解密抗体特异性规则对于加速有理和硅生物治疗药物设计至关重要。在这里，我们将抗体语言的特性形式化，因此不仅建立了语言工具在适应性免疫受体分析中应用的基础，而且还为免疫受体特异性的系统免疫语言学研究提供了基础。

脊柱X射线成像上椎骨的手动注释是昂贵的，并且由于骨骼形状的复杂性和图像质量变化而耗时。在这项研究中，我们通过提出一种称为Vertxnet的集合方法来解决这一挑战，以自动在X射线脊柱图像中分段和标记椎骨。 Vertxnet结合了两个最先进的分割模型，即U-NET和Mask R-CNN，以改善椎骨分割。 Vertxnet的一个主要特征也是由于其在给定的脊柱X射线图像上的掩模R-CNN组件（经过训练，可检测到“参考”椎骨）。在侧面宫颈和腰椎X射线成像的内部数据集上评估了Vertxnet，用于强直性脊柱炎（AS）。我们的结果表明，Vertxnet可以准确标记脊柱X射线（平均骰子为0.9）。它可以用来规避缺乏注释的椎骨而无需进行人类专家审查的情况。此步骤对于通过解决分割的缺乏来研究临床关联至关重要，这是大多数计算成像项目的常见瓶颈。

大多数深度学习算法都缺乏对其预测的解释，这限制了其在临床实践中的部署。改善解释性的方法，尤其是在医学成像中，经常被证明可以传达有限的信息，过于放心或缺乏健壮性。在这项工作中，我们介绍了生成自然语言解释（NLE）的任务，以证明对医学图像的预测是合理的。NLE是人类友好且全面的，并能够培训本质上可解释的模型。为了实现这一目标，我们介绍了模仿 - nle，这是带有NLE的第一个大规模的医学成像数据集。它包含超过38,000个NLE，可以解释各种胸部病理和胸部X射线检查结果。我们提出了一种解决任务并评估该数据集中的几个架构的一般方法，包括通过临床医生评估。

基于神经网络的深层语言模型（LMS）越来越多地应用于大规模蛋白质序列数据以预测蛋白质功能。然而，作为黑框模型，当前的蛋白质LM方法并不促进对序列功能映射的基本理解，而阻碍了基于规则的生物治疗药物开发，因此目前的蛋白质LM方法不大。我们认为，从语言学中得出的指导是从自然语言数据中提取分析规则的领域，可以帮助构建学习相关领域特定规则的更容易解释的蛋白质LM。与自然语言LMS相比，蛋白质序列数据和语言序列数据之间的差异需要在蛋白质LMS中集成更多的域特异性知识。在这里，我们为培训数据，令牌化，令牌嵌入，序列嵌入和模型解释提供了基于语言学的路线图。将语言学与蛋白质LMS结合起来，可以发展下一代可解释的机器学习模型，并有可能发现序列功能关系基础的生物学机制。

可变形的图像注册，估计不同图像之间的空间转换，是医学成像中的重要任务。许多先前的研究都使用基于学习的方法进行多阶段注册来执行3D图像注册以提高性能。但是，多阶段方法的性能受到不受单个空间尺度上复杂运动的接收场的大小的限制。我们提出了一个新的注册网络，结合了递归网络体系结构和相互注意机制，以克服这些局限性。与最先进的深度学习方法相比，基于递归结构的我们的网络达到了肺计算机断层扫描（CT）数据集的最高精度（肺部的骰子分数为92 \％，肺平均表面距离为3.8mm ），这是腹部CT数据集中最准确的结果之一，具有9个大小的器官（骰子得分为55 \％，平均表面距离为7.8mm）。我们还表明，添加3个递归网络足以达到最新结果，而没有明显增加推理时间。

最近的自我监督学习方法能够学习高质量的图像表示，并通过监督方法关闭差距。但是，这些方法无法逐步获取新的知识 - 事实上，它们实际上主要仅用为具有IID数据的预训练阶段。在这项工作中，我们在没有额外的记忆或重放的情况下调查持续学习制度的自我监督方法。为防止忘记以前的知识，我们提出了功能正规化的使用。我们将表明，朴素的功能正则化，也称为特征蒸馏，导致可塑性的低可塑性，因此严重限制了连续的学习性能。为了解决这个问题，我们提出了预测的功能正则化，其中一个单独的投影网络确保新学习的特征空间保留了先前的特征空间的信息，同时允许学习新功能。这使我们可以防止在保持学习者的可塑性时忘记。针对应用于自我监督的其他增量学习方法的评估表明我们的方法在不同场景和多个数据集中获得竞争性能。

在过去十年的卷积神经网络（CNNS）中已经限定了本领域的状态，用于许多低级图像处理和恢复任务，例如去噪，去散，升高或染色。然而，设备上的移动摄影仍然由传统的图像处理技术主导，并且主要使用简单的机器学习技术或限制神经网络处理以产生低分辨率掩模。 CNN的高计算和内存要求，移动设备的有限处理电源和热约束，与大输出图像分辨率相结合（通常为8--12 mpix），防止其更广泛的应用。在这项工作中，我们介绍程序内核网络（PKN），一系列机器学习模型，它生成图像滤波器内核或其他传统算法的参数。轻量级CNN以较低的分辨率处理输入图像，与其他基于内核的机器学习方法相比，它会产生显着的加速，并允许新的应用程序。该架构是以端到端学习的，特别适用于各种低级图像处理任务，在那里它提高了许多传统算法的性能。我们还描述了该框架如何统一一些以前的工作应用机器学习，以便进行常见的图像恢复任务。